Trong cuộc tổng tuyển cử Singapore năm 1976, mặc dù mới ở tuổi 35, Ngô đã được bầu làm đại biểu của Quốc hội với tư cách là đại biểu cho Marine Parade và là một đảng viên của Đảng Hành động Nhân dân (PAP). Ông được bổ nhiệm làm Bộ trưởng cao cấp của Nhà nước về Tài chính. Năm 1981, ông được thăng làm Bộ trưởng Bộ Thương mại và Công nghiệp. Sau đó, ông còn được bổ nhiệm vào một số vị trí khác trong đó có Bộ trưởng Y tế và Bộ trưởng Quốc phòng.[5]

Năm 1985, Ngô Tác Đống trở thành Phó Thủ tướng và bắt đầu được cơ cấu một cách thận trọng vào thế lãnh đạo kế cận. Mặc dù Lý Quang Diệu thích để cho Trần Khánh Viêm kế nhiệm mình hơn, tuy nhiên ông lại được thế hệ nhà lãnh đạo thứ hai bao gồm Trần Khánh Viêm, Suppiah Dhanabalan, và Vương Đỉnh Xương bầu, và Lý đã chấp nhận quyết định của họ.[4]